Experimentos revelaram que o OpenAI GPT3.5 apresenta viés racial na classificação de currículos. Testes mostraram que o GPT3.5 favorece nomes de certos grupos étnicos, o que pode afetar as decisões de contratação. Os experimentos também descobriram que o GPT apresenta preferências de gênero e raça em diferentes funções. O OpenAI respondeu que as empresas geralmente tomam medidas para mitigar o viés ao usar sua tecnologia.

Pesquisadores avaliaram o viés racial e de gênero do GPT-4 em decisões clínicas. | O estudo descobriu um viés significativo no GPT-4. | A pesquisa apela para avaliações de viés em modelos de linguagem grandes. | Os resultados do estudo foram publicados na revista The Lancet Digital Health.

A geração de rostos caucasianos por inteligência artificial atingiu um nível de realismo 'superior ao real', mas apresenta viés na representação de outros grupos étnicos. Pesquisas revelam que o viés nos dados de treinamento do algoritmo faz com que a IA tenda a representar outros grupos étnicos com características caucasianas, podendo exacerbar o preconceito racial online. Os pesquisadores apelam para a educação pública, a fim de evitar a desinformação e golpes online, destacando os potenciais problemas do 'hiper-realismo' da inteligência artificial.